DRIFTLENS: Measuring Memory-Induced Reasoning Drift in Personalized Language Models
DRIFTLENS：测量个性化语言模型中记忆引发的推理漂移
🧭 LLM 个性化推理漂移测量与缓解
Amazon
提出无真值框架 DRIFTLENS，量化用户记忆注入对 LLM 推理路径的影响，并评估 GRPO/DPO 缓解策略
📌 工作参考价值（4 点）
- 在电商推荐 Agent 中，使用用户属性（如年龄、职业、偏好）生成推荐理由时，可借鉴 DRIFTLENS 将解释步骤映射到价值维度（如性价比、品牌、售后服务），量化有/无记忆时的推理路径差异，监控伴随个性化带来的推理扭曲，确保解释一致性。
- 对推荐式 LLM 做个性化微调（如 DPO/GRPO）时，可参考论文发现：降低漂移可能牺牲 helpfulness 等能力。需同时评估推荐准确性、用户满意度、解释合理性等多指标，避免单目标优化导致能力退化。
- 工程实现上，DRIFTLENS 的无真值设计（零样本分类 + 分布散度）可直接复用到推荐解释的自动化评估，无需人工标注，通过预定义价值类别快速构建推理漂移监控管线。
- 个性化记忆可能引入隐性偏见（如年龄导致保守/冒险推荐），可借此测量方法审计推荐系统全链条的公平性，作为个性化上线前的安全检查。